Avec o1, à quel point OpenAI change-t-il d'approche ? | Silicon

Clément Bohic - Silicon - 13/09
Le principe de la « chaîne de pensée » guide le fonctionnement des modèles o1 qu'OpenAI vient de lancer en bêta. Qu'implique cette approche ?

Oubliez ce qu’on vous a dit sur le RAG ? OpenAI n’est pas loin de l’affirmer à l’heure d’ouvrir l’accès à o1.

Les LLM de cette famille fonctionnent sur le principe de la chaîne de pensée. Autrement dit, dans les grandes lignes, ils raisonnent par étapes.

Une chaîne de pensée largement masquée aux utilisateurs

Cette chaîne se manifeste par des tokens spécifiques, dits « de raisonnement ». Ils retranscrivent la « pensée brute » d’un modèle. OpenAI suggère d’en allouer au moins 25 000 pour les premières expérimentations, le temps de prendre la main…

Les tokens de raisonnement ne sont pas visibles sur l’API, mais sont bien facturés. Sur l’UI ChatGPT, on voit une vers...
[Courte citation de 8% de l'article original]